MARS: Memory-Aware Routing for Session-Level LLM Assistants
记忆感知路由：会话级LLM助手的记忆构造与模型选择协同框架
🧭 Agent 会话记忆与路由协同优化 ★ 深度解读
Southern University of Science and Technology · City University of Hong Kong · The Chinese University of Hong Kong, Shenzhen · Harbin Institute of Technology (Shenzhen)
通过共享会话状态协调记忆暴露与模型选择，在长历史交互中实现质量-成本平衡
📌 工作参考价值（4 点）
- 在电商客服/导购 Agent 中，将记忆构造与模型路由解耦会导致强模型被错误上下文拖累，建议引入轻量级控制器（QTM）输出结构化会话状态，同时指导召回/上下文组装和模型选择，降低过期信息与干扰。
- 使用 LinUCB 在线学习路由策略，以 turn-level rubric 评分减生成成本作为奖励，冷启动即可用，无需重训底层 LLM，适合线上多模型池的动态成本控制。
- 区分「记忆访问」与「记忆暴露」：维护大记忆池但只给生成模型打包决策相关证据，并通过预算感知 pack 适配不同模型的上下文窗口，能有效避免 context overflow 和多余 distractors。
- 借鉴 QTM 的 schema 字段（action/query_type/phase/retrieval_scope/top_k_hint/lens_recommendation），避免把原始 topic 标签直接喂给路由器，有助于跨任务泛化和可解释性。